Еще древние греки отчетливо понимали, что математическая теория должна быть свободна от противоречий. Это означает, что невозможно вывести как логическое следствие из аксиом утверждение Р и его отрицание не-P. Однако, поскольку считалось, что математические объекты имеют соответствия в реальном мире, а аксиомы являются "идеализациями" законов природы, ни у кого не возникало сомнений в непротиворечивости математики. При переходе от классической математики к математике современной проблема непротиворечивости приобрела иной смысл. Свобода выбора аксиом любой математической теории должна быть заведомо ограничена условием непротиворечивости, но можно ли быть уверенным в том, что это условие окажется выполненным?

Мы уже упоминали о понятии множества. Это понятие всегда использовалось более или менее явно в математике и логике. Во второй половине 19 в. элементарные правила обращения с понятием множества были частично систематизированы, кроме того, были получены некоторые важные результаты, составившие содержание т.н. теории множеств (см. также МНОЖЕСТВ ТЕОРИЯ), ставшей как бы субстратом всех остальных математических теорий. Начиная с античности и вплоть до 19 в. существовали опасения относительно бесконечных множеств, например нашедшие отражение в знаменитых парадоксах Зенона Элейского (5 в. до н.э.). Эти опасения носили отчасти метафизический характер, а отчасти были вызваны трудностями, связанными с понятием измерения величин (например, длины или времени). Устранить эти трудности удалось только после того, как в 19 в. были строго определены основные понятия математического анализа. К 1895 все страхи были развеяны, и казалось, что математика покоится на незыблемом фундаменте теории множеств. Но в следующее десятилетие возникли новые аргументы, которые, по-видимому, показывали внутреннюю противоречивость теории множеств (и всей остальной математики).

Новые парадоксы были очень простыми. Первый из них - парадокс Рассела - можно рассмотреть в простой версии, известной под названием "парадокс брадобрея". В некотором городке брадобрей бреет всех жителей, которые не бреются сами. Кто бреет самого брадобрея. Если брадобрей бреется сам, то он бреет не только тех жителей, которые не бреются сами, но и одного жителя, который бреется сам; если же он сам не бреется, то он не бреет всех жителей городка, которые не бреются сами. Парадокс этого типа возникает всякий раз, когда рассматривается понятие "множество всех множеств". Хотя этот математический объект кажется весьма естественным, рассуждения о нем быстро приводят к противоречиям.

Еще более показателен парадокс Берри. Рассмотрим множество всех русских фраз, содержащих не более семнадцати слов; число слов русского языка конечно, поэтому конечно и число таких фраз. Выберем среди них такие, которые однозначно задают какое-нибудь целое число, например: "Наибольшее нечетное число, меньшее десяти". Число таких фраз также конечно; следовательно, конечно и множество определяемых ими целых чисел. Обозначим конечное множество этих чисел через D. Из аксиом арифметики следует, что существуют целые числа, не принадлежащие D, и что среди этих чисел существует наименьшее число n. Это число n однозначно определяется фразой: "Наименьшее целое число, которое не может быть определено фразой, состоящей не более чем из семнадцати русских слов". Но эта фраза содержит ровно семнадцать слов. Следовательно, она определяет число n, которое должно принадлежать D, и мы приходим к парадоксальному противоречию.

Интуиционисты и формалисты. Шок, вызванный парадоксами теории множеств, породил самые различные реакции. Некоторые математики были настроены весьма решительно и высказывали мнение, что математика с самого начала развивалась в неверном направлении и должна базироваться на совершенно другом фундаменте. Описать точку зрения подобных "интуиционистов" (как они стали себя называть) сколько-нибудь точно не представляется возможным, так как они отказывались сводить свои взгляды к чисто логической схеме. С точки зрения интуиционистов, неправильно применять логические процессы к интуитивно непредставимым объектам. Единственными интуитивно ясными объектами являются натуральные числа 1, 2, 3,... и конечные множества натуральных чисел, "построенные" по точно заданным правилам. Но даже к таким объектам интуиционисты не разрешали применять все дедукции классической логики. Например, они не признавали, что для любого утверждения Р истинно либо Р, либо не-Р. Располагая столь ограниченными средствами, они легко избегали "парадоксов", но при этом выбрасывали за борт не только всю современную математику, но и значительную часть результатов классической математики, а для тех, что еще оставались, необходимо было найти новые, более сложные доказательства.

Подавляющее большинство современных математиков не согласились с доводами интуиционистов. Математики-неинтуиционисты заметили, что аргументы, применяемые в парадоксах, значительно отличаются от тех, что используются в обычной математической работе с теорией множеств, и поэтому следовало бы исключить такого рода аргументы как незаконные, не подвергая риску существующие математические теории. Другое наблюдение заключалось в том, что в "наивной" теории множеств, существовавшей до появления "парадоксов", не подвергался сомнению смысл терминов "множество", "свойство", "отношение" - подобно тому как в классической геометрии не подвергался сомнению "интуитивный" характер обычных геометрических понятий. Следовательно, можно действовать так же, как это было в геометрии, а именно отбросить все попытки обращения к "интуиции" и принять за исходный пункт теории множеств систему точно сформулированных аксиом. Однако неочевидно, каким образом можно лишить такие слова, как "свойство" или "отношение", их обычного смысла; между тем это необходимо сделать, если мы желаем исключить такие рассуждения, как парадокс Берри. Метод состоит в воздержании от использования обыденного языка при формулировке аксиом или теорем; только предложения, построенные в соответствии с явной системой жестких правил, допускаются в качестве "свойств" или "отношений" в математике и входят в формулировку аксиом. Такой процесс называется "формализацией" математического языка (во избежание недоразумений, возникающих из-за неоднозначностей обычного языка, рекомендуется сделать еще один шаг и заменить сами слова специальными символами в формализованных предложениях, например заменить связку "и" символом &, связку "или" - символом ?, "существует" - символом . и т.д.). Математиков, отвергавших методы, предложенные интуиционистами, стали называть "формалистами".

Однако на исходный вопрос так и не было дано ответа. Свободна ли от противоречий "аксиоматическая теория множеств". Новые попытки доказательств непротиворечивости "формализованных" теорий были предприняты в 1920-х годах Д.Гильбертом (1862-1943) и его школой и получили название "метаматематики". По существу, метаматематика представляет собой раздел "прикладной математики", где объектами, к которым применяются математические рассуждения, являются предложения формализованной теории и их расположение внутри доказательств. Эти предложения надлежит рассматривать лишь как материальные комбинации символов, производимые по некоторым установленным правилам, без каких бы то ни было ссылок на возможный "смысл" этих символов (если таковой существует). Хорошей аналогией может служить игра в шахматы: символы соответствуют фигурам, предложения - различным позициям на доске, а логические выводы - правилам передвижения фигур. Для установления непротиворечивости формализованной теории достаточно показать, что в этой теории ни одно доказательство не заканчивается утверждением 0 . 0. Однако можно возразить против использования математических аргументов в "метаматематическом" доказательстве непротиворечивости математической теории; если бы математика была противоречивой, то математические аргументы утратили бы всякую силу, и мы бы оказались в ситуации порочного круга. Чтобы ответить на эти возражения, Гильберт допустил к использованию в метаматематике весьма ограниченные математические рассуждения того типа, который считают допустимым интуиционисты. Однако вскоре К.Гёдель показал (1931), что непротиворечивость арифметики невозможно доказать столь ограниченными средствами, если она действительно непротиворечива (рамки настоящей статьи не позволяют нам изложить остроумный метод, с помощью которого был получен этот замечательный результат, и дальнейшую историю метаматематики).

Резюмируя с формалистской точки зрения сложившуюся проблемную ситуацию, мы должны признать, что она далека от завершения. Использование понятия множества ограничивалось оговорками, которые специально вводились, чтобы избежать известных парадоксов, и нет никаких гарантий, что в аксиоматизированной теории множеств не возникнут новые парадоксы. Тем не менее ограничения аксиоматической теории множеств не помешали рождению новых жизнеспособных теорий.